Giả sử mục đích là tìm và miêu tả nghiệm (nếu có) của hệ phương trình tuyến tính sau:

2 x + y − z = 8 ( L 1 ) {\displaystyle 2x+y-z=8\quad (L_{1})} − 3 x − y + 2 z = − 11 ( L 2 ) {\displaystyle -3x-y+2z=-11\quad (L_{2})} − 2 x + y + 2 z = − 3 ( L 3 ) {\displaystyle -2x+y+2z=-3\quad (L_{3})}

Thuật toán là như sau: khử x {\displaystyle x} trong tất cả các phương trình bên dưới L 1 {\displaystyle L_{1}} , sau đó khử y {\displaystyle y} trong tất cả các phương trình bên dưới L 2 {\displaystyle L_{2}} . Việc này sẽ làm hệ trở thành dạng tam giác. Sau đó, sử dụng phép thay thế ngược, các ẩn số có thể được giải.

Trong ví dụ, ta khử x {\displaystyle x} từ L 2 {\displaystyle L_{2}} bằng cộng 3 2 L 1 {\displaystyle {\begin{matrix}{\frac {3}{2}}\end{matrix}}L_{1}} vào L 2 {\displaystyle L_{2}} , và sau đó khử x {\displaystyle x} từ L 3 {\displaystyle L_{3}} bằng cộng L 1 {\displaystyle L_{1}} vào L 3 {\displaystyle L_{3}} . Công thức hóa:

L 2 + 3 2 L 1 → L 2 {\displaystyle L_{2}+{\frac {3}{2}}L_{1}\rightarrow L_{2}} L 3 + L 1 → L 3 {\displaystyle L_{3}+L_{1}\rightarrow L_{3}}

Kết quả là:

2 x + y − z = 8 {\displaystyle 2x+y-z=8\,} 1 2 y + 1 2 z = 1 {\displaystyle {\frac {1}{2}}y+{\frac {1}{2}}z=1\,} 2 y + z = 5 {\displaystyle 2y+z=5\,}

Bây giờ ta khử y {\displaystyle y} từ L 3 {\displaystyle L_{3}} bằng cách cộng − 4 L 2 {\displaystyle -4L_{2}} vào L 3 {\displaystyle L_{3}} :

L 3 + − 4 L 2 → L 3 {\displaystyle L_{3}+-4L_{2}\rightarrow L_{3}}

Kết quả là:

2 x + y − z = 8 {\displaystyle 2x+y-z=8\,} 1 2 y + 1 2 z = 1 {\displaystyle {\frac {1}{2}}y+{\frac {1}{2}}z=1\,} − z = 1 {\displaystyle -z=1\,}

Kết quả này là một hệ phương trình tuyến tính dưới dạng tam giác, do đó phần 1 của thuật toán là xong.

Phần thứ 2, thay thế ngược, là giải cho các ẩn số trong thứ tự ngược lại. Do đó, chúng ta có thể dễ dàng thấy rằng

z = − 1 ( L 3 ) {\displaystyle z=-1\quad (L_{3})}

Sau đó, thế z {\displaystyle z} vào L 2 {\displaystyle L_{2}} , giải dễ dàng để có

y = 3 ( L 2 ) {\displaystyle y=3\quad (L_{2})}

Kế tiếp, z {\displaystyle z} và y {\displaystyle y} có thể được thế vào L 1 {\displaystyle L_{1}} , có thể được giải để có

x = 2 ( L 1 ) {\displaystyle x=2\quad (L_{1})}

Do vậy, hệ phương trình đã được giải.

Thuật toán này dùng được trên mọi hệ phương trình tuyến tính. Có thể là hệ không thể được đưa về dạng tam giác, tuy nhiên vẫn có ít nhất một lời giải có giá trị: ví dụ, nếu y {\displaystyle y} không có trong L 2 {\displaystyle L_{2}} và L 3 {\displaystyle L_{3}} sau bước thứ 1 ở trên, thuật toán sẽ không thể đưa hệ về dạng tam giác. Tuy nhiên, nó vẫn đưa hệ về dạng bậc thang. Trong trường hợp này, hệ không có nghiệm duy nhất, và sẽ có vô số nghiệm, vì nó có ít nhất một biến tự do.

Trong thực tế, người ta thường không sử dụng hệ phương trình không mà sử dụng ma trận mở rộng (dễ dàng giải trên máy tính). Sau đây là thuật toán của phép khử Gauss áp dụng trên ma trận mở rộng của hệ bên trên, bắt đầu với:

[ 2 1 − 1 8 − 3 − 1 2 − 11 − 2 1 2 − 3 ] {\displaystyle {\begin{bmatrix}2&1&-1&8\\-3&-1&2&-11\\-2&1&2&-3\end{bmatrix}}}

mà, cuối cùng của phần 1 của thuật toán ta sẽ có:

[ 2 1 − 1 8 0 1 2 1 2 1 0 0 − 1 1 ] {\displaystyle {\begin{bmatrix}2&1&-1&8\\0&{\frac {1}{2}}&{\frac {1}{2}}&1\\0&0&-1&1\end{bmatrix}}}

Đó là dạng bậc thang.

Cuối cùng của thuật toán, ta có được

[ 1 0 0 2 0 1 0 3 0 0 1 − 1 ] {\displaystyle {\begin{bmatrix}1&0&0&2\\0&1&0&3\\0&0&1&-1\end{bmatrix}}}

Đó là dạng bậc thang tối giản.